Tề Hoàn công Khương Tiểu Bạch không rõ sinh năm bao nhiêu, là con thứ của Tề Hy công và là em của Tề Tương công. Mẹ ông là người nước Vệ[1] hay nước Cử(?).

Cuối năm 686 TCN, Tề Tương công bị Công Tôn Vô Tri sát hại. Những người em của Tương công bỏ chạy ra nước ngoài. Khương Tiểu Bạch được Bào Thúc Nha phò tá, bỏ chạy sang nước Cử; người em thứ hai của Tương công là Công tử Củ (公子糾) được Quản Trọng và Thiệu Hốt phò tá chạy sang nước Lỗ[1].

Đầu năm 685 TCN, Công Tôn Vô Tri bị giết. Vì Tiểu Bạch chơi thân với đại phu Cao Hề nên Cao Hề bàn với đại phu họ Quốc đi đón ông ở nước Cử về nối ngôi. Công tử Củ ở nước Lỗ nghe tin đó bèn sai Quản Trọng đi đón đường ngăn cản ông về nước. Quản Trọng bắn trúng đai áo Tiểu Bạch, ông bèn ngã ra giả vờ chết. Quản Trọng sai người đi báo với công tử Củ. Vì vậy công tử Củ chủ quan đi chậm, không vội về nước Tề[1].

Khi Quản Trọng đi khỏi, Khương Tiểu Bạch ngồi trên chiếc xe bịt kín đi gấp về nước Tề. Ông được họ Cao và họ Quốc làm nội ứng, cùng lập làm vua mới, tức là Tề Hoàn công[1].